Ông sinh năm 1940, quê ở xã Thanh Hưng, huyện Thanh Chương, tỉnh Nghệ An. Ông ngoại của ông từng là đội trưởng đội bát âm của làng. Chịu ảnh hưởng này, từ năm 10 tuổi, ông đã biết thổi sáo.[2]

Năm 1954, ông được tuyển vào Đoàn nghệ thuật Liên khu IV do nhạc sĩ Nguyễn Văn Thương làm trưởng đoàn và được nhạc sĩ Nguyễn Văn Thương phát hiện tài năng dù ngoại hình của ông có phần thất lợi với nước da đen, đầu tóc dính đầy bùn với cái sẹo to, mặt lấm tấm mụn, với quan điểm: "Ta chọn kỹ năng chứ không chọn hình thức".

Khi tham gia đoàn chèo Trung ương, ông may mắn được cụ Ngô Văn Ly truyền nghề. Ông biểu diễn được rất nhiều loai nhạc cụ như sáo trúc, đàn bầu, đàn nguyệt. Đặc biệt, nghệ thuật trình diễn sáo trúc của ông được xem như vẽ nên bao bức tranh quê hương Việt Nam đậm nét khắc sâu trong lòng hàng triệu công chúng âm nhạc ở Việt Nam và trên toàn thế giới. Ông tham gia biểu diễn ở 30 nước trên thế giới; với sự trình diễn điêu luyện, tinh tế và đầy sức thuyết phục, đã góp phần không nhỏ vào việc nâng cao vị trí của sáo trúc Việt Nam.

Năm 1981, ông đạt Huy chương Vàng Hội diễn ca múa nhạc toàn quốc với phần biểu diễn Nhớ về nam (Lý hoài nam).

Nhiều sáng tác của ông cho đến nay vẫn được Đài tiếng nói Việt Nam phát lại, có một số bài được đặt làm nhạc hiệu chương trình như bài Trăng sáng quê tôi.

Do những đóng góp cho nghệ thuật âm nhạc cổ truyền, ông được nhà nước Việt Nam phong tặng danh hiệu Nghệ sĩ Ưu tú.

Ông mất ngày 8 tháng 5 năm 2000.